امضای مخفی هوش مصنوعی؛ آنتروپیک متن های کلاود را رمزگذاری می کند

شرکت آنتروپیک در راستای پیروی از قوانین جدید شفافیت اتحادیه اروپا، از متد جدید خود برای نشان گذاری (واترمارک) محتواهای تولیدشده توسط چت بات «کلاود» خبر داد.

به گزارش خبرگزاری صداوسیما، به نقل از انگجت، شرکت آنتروپیک اعلام کرد: برخلاف روش های رایج، واترمارک های این شرکت نه به صورت بصری و نه از طریق کاراکترهای مخفی در متن قرار می گیرند، بلکه از طریق ایجاد یک «الگوی انتخابی» در کلمات پیاده سازی می شوند. در این روش، مدل زبانی هنگام انتخاب کلمات بعدی، به جای استفاده از مولد تصادفی معمولی، از یک «کلید رمز» برای تعیین کلمه مناسب از فهرست گزینه ها استفاده می کند. به عنوان مثال، این شرکت از ارقام عدد پی (π) به عنوان کلید استفاده کرده تا ترتیب انتخاب کلمات را به شکلی خاص تغییر دهد که تنها با داشتن کلید مذکور، قابل شناسایی باشد. این رویکرد که اقتباسی از فناوری SynthID-Text شرکت گوگل دیپ مایند است، هیچ تأثیری بر کیفیت خروجی، سرعت تولید متن یا هزینه توکن ها ندارد و کاربر نهایی متوجه حضور این برچسب دیجیتال در متن نخواهد شد.

نظرات

captcha